81 risposte a questa discussione

[eglio]

Da ieri, con l'uscita della prima beta di iOS 18.1, è iniziata l'era di AppIe Intelligence, e già il mondo non è più lo stesso.
 
Col suo piccolo LLM on-device da 2,7B parametri (della dimensione di 1GB compresso) che però come un agile playmaker fa i numeri e porta la squadra a canestro, il tutto consumando poco e girando in modo molto efficiente sull'ANE*, crapple ha dimostrato all'intera industria la potenza e le potenzialità di un LLM locale integrato in modo pervasivo nell'OS e non confinato a singole app. 

*A questo proposito vi rammento che attualmente in genere gli LLM locali girano su CPU/GPU, sia su Mac che peggio ancora su altre piattaforme (sulle quali l'NPU è questione ancora più recente che sulle piattaforme crapple, che ne hanno visto l'introduzione su iPhone 8/X ormai 7 anni fa), e non sul Neural Engine.
 

Hey, I'm the author of Private LLM. None of the big three LLM frameworks: llama.cpp (which LMStudio, Ollama, etc use), mlc-llm (which Private LLM uses) and MLX are capable of using the crapple Neural Engine for (quantized) LLM inference. All of them currently only use the crapple Silicon GPU and the CPU.

 
 
Le poche funzionalità già disponibili e testate dagli utenti in queste prime ore, quali 
- riscrittura (molto veloce, efficace e che riesce a gestire testi lunghi suddividendoli in pezzi)
- riassunto in linea delle pagine web
- riassunto delle mail proposto direttamente come anteprima da 2 righe o nelle notifiche
- prioritizzazione delle mail sulla base della comprensione del contenuto 
- prioritizzazione delle notifiche
- riassunto di intere sequenze di notifiche in una singola notifica di riepilogo
- ecc. 
 
mi portano ad affermare: sospendete qualsiasi acquisto di iPhone (anzi smartphone!) e pianificate di prendere un iPhone compatibile con AppIe Intelligence! (fosse anche l'iPhone SE4 da 549€ a marzo prossimo)
 
(poi vabbè in EU non è disponibile inizialmente ma almeno a livello hw siete pronti per quando l'anno prossimo lo sarà )
 
Pianificare di avere al più presto AppIe Intelligence a questo punto è im-pre-scin-di-bi-le. (già solo per notifiche sintetizzate)

E poi, rinuncereste mai alla nuova animazione migliore di sempre per Siri?

[eglio]

mi portano ad affermare: sospendete qualsiasi acquisto di iPhone (anzi smartphone!) e pianificate di prendere un iPhone compatibile con AppIe Intelligence! (fosse anche l'iPhone SE4 da 549€ a marzo prossimo)

Vi ricordo che gli iPhone compatibili con AppIe Intelligence sono:

- iPhone 15 Pro (già disponibile)
- iPhone 15 Pro Max (già disponibile)

- iPhone 16 (settembre 2024)
- iPhone 16 Plus (settembre 2024)
- iPhone 16 Pro (settembre 2024)
- iPhone 16 Pro Max (settembre 2024)

- iPhone SE4 (marzo 2025)

- iPhone 17 120Hz (settembre 2025)
- iPhone 17 Slim 120Hz (settembre 2025)
- iPhone 17 Pro (settembre 2025)
- iPhone 17 Pro Max (settembre 2025)

Messaggio modificato da eglio il 30 luglio 2024 - 10:11

[eglio]

Dettagli tecnici rilasciati ieri

https://machinelearn...uage_models.pdf

https://x.com/i/web/...014366555586611

[Berling]

Ma arriverà in Europa? Vi è la certezza?

[eglio]

Ma arriverà in Europa? Vi è la certezza?

 

La certezza no.

 

Per ora l'unica certezza è in negativo: è certo che nell'anno solare 2024 non arriverà in UE. 

 

 

Immagino che essendo una feature che alla fine servirà a crapple a fare schei sia loro interesse fare di tutto per portarla anche nel mercato UE.

[harbinger]

Con ordine, rispetto alle mie utilità:

 

 

- riscrittura (molto veloce, efficace e che riesce a gestire testi lunghi suddividendoli in pezzi)

Magari è interessante. Ho comunque sempre attivo un collegamento con casa dove gira ollama con LLM che vanno sui 30 tk/s (100-150 tk/s valutazione prompt), quindi ha un'utilità limitata;

 

- riassunto in linea delle pagine web

Non so cosa leggiate voi ma non voglio riassunti di articoli che posso finire in qualche minuto e non voglio riassunti di cose tecniche, dove la lettura di tutto è fondamentale.

 

- riassunto delle mail proposto direttamente come anteprima da 2 righe o nelle notifiche

Interessante ma limitato dato che le email di lavoro o sono molto sintetiche o sono spataffi di pagine, pieni di riferimenti ad altre e-mail e a cose magari note solo ai soggetti ai quali sono destinate.

 

- prioritizzazione delle mail sulla base della comprensione del contenuto 

Da testare.

 

- prioritizzazione delle notifiche

Da testare.

 

- riassunto di intere sequenze di notifiche in una singola notifica di riepilogo

Interessante ma non ho sequenze particolarmente lunghe, avendo silenziato tutti i gruppi il whatsapp dei froci, whatsapp ecc.

 

- ecc. 

vedremo.

 

 

Presentato così sembra roba per generare tante interazioni cazzose su tanti social e tante email/messaggi fuffolosi alla bisogna. Spero ci sia di più, più sottile, più integrato tra le varie app.

[G-DannY]

è tutta roba da influencers/tiktokers/genzcontentcreators-adhdfags

 

perfettamente in target audience

Messaggio modificato da G-DannY il 30 luglio 2024 - 16:17

[entanglement]

Presentato così sembra roba per generare tante interazioni cazzose su tanti social e tante email/messaggi fuffolosi alla bisogna.

Io penso sia proprio cosi

Spero ci sia di più, più sottile, più integrato tra le varie app.

beh, quanti clienti twitterari/youtubers/tiktokers in perenne ADHD ha crapple e quanti commercialisti vigevanesi di successo ?

[eglio]

Le AI-cagate, quelle vere: Meta costretta già a chiudere "Chatta col tuo VIP preferito in versione bot AI", la feature più eccitante e straordineeria cui avevano dedicato mezza presentazione del Meta Connect a ottobre scorso
 
https://www.theverge...tbots-moves-on#
 

Meta’s initial list of chatbots included alternate personas for people like Charli D’Amelio (Coco, a “dance enthusiast”), Dwyane Wade (Victor, an “Ironman triathlete motivating you to be your best self”), and Paris Hilton (Amber, a “detective partner for solving whodunnits”). The company planned to add more, like chatbots based on Bear Grylls, Chloe Kim, and Josh Richards, but as pointed out by The Information, the company didn’t follow through. Meta paid some of the celebrities millions for their likenesses, The Information reported in October.

[eglio]

👍🏻

(“maybe” perché non si può essere sicuri al 100%)

Un giorno stenteremo a credere che un tempo gli OS non avevano la capacità di prioritizzare le notifiche sulla base della comprensione del contenuto ✨

[eglio]

Col suo piccolo LLM on-device da 2,7B parametri (della dimensione di 1GB compresso) che però come un agile playmaker fa i numeri e porta la squadra a canestro

Come fa il nanetto da soli ~3B parametri a essere così agile e al contempo preciso nelle bombe da 3 punti? Così:

[eglio]

https://www.npr.org/...ntitrust-search

Giudice: è da monopolista illegale il fatto che ogni anno Google paghi 26 miliardi (in massima parte a crapple) per essere il motore di ricerca di default ovunque.


Questione non di poco conto per il modello di business di crapple nella categoria servizi e per l’avvicendamento fra motori di ricerca classici e ricerca tramite assistente AI.

Per ora (o meglio da fine anno) la “piccola” OpenAI paga crapple “in natura” (fornendo GPT-4o gratis e senza registrazione agli utenti AppleIntelligence, anche se vanno capiti nella pratica i limiti) in cambio dell’integrazione con AppleIntelligence, da quel che dicono le aziende interessate.

[harbinger]

Tanto G fa mediocagare come risultati, DDG sta peggiorando e il resto manco lo nomino per pietà. Tra risultati sponsorizzati e incapacità di gestire come i gestori dei siti raggirano gli algoritmi, si va verso cacca pura 24/7.

E la parte divertente è che con gli LLM sarà pure peggio, perché GIGO.

Messaggio modificato da harbinger il 06 agosto 2024 - 06:11

[eglio]

https://www.wsj.com/...=googlenewsfeed
 

crapple is in talks to invest in OpenAI, a move that would cement ties to a partner integral to its efforts to gain ground in the artificial-intelligence race.

The investment would be part of a new OpenAI fundraising round that would value the ChatGPT maker above $100 billion, people familiar with the situation said. The Wall Street Journal reported Wednesday that venture-capital firm Thrive Capital is leading the round, which will total several billion dollars, and crapple rival Microsoft is also expected to participate.

It couldn’t be learned how much crapple or Microsoft will invest into OpenAI this round. To date, Microsoft has been the primary strategic investor into OpenAI. It owns a 49% share of the AI startup’s profits after investing $13 billion since 2019.

[toyo]

open ai e' roba vecchia ormai

[eglio]

Ci siamo: gli spot televisivi di 🍎-intelligence








🤔🤔🤔

[harbinger]

Esperienza Pixel 9 Pro XL promossa a pieni voti finora, specie col Pixel Watch 3 LTE. E Gemini Advanced (1.5 Pro) è proprio carino. Non appena mi aggiungono l'italiano nelle lingue supportate per lavorare, vediamo cosa sa davvero fare (lì e nei document di lavoro, per ora, uso Copilot abbonamento MS365 per imprese).

[G-DannY]

Ci siamo: gli spot televisivi di -intelligence

cessa

 

potevano cacciare qualche lira in più e prendere MBB e avrebbero avuto quantomeno la sexytà di una poshpatata

[euthanasia]

Ma se tanto non mi scrive nessuno cosa me ne faccio della prioritizzazione delle notifiche?

[yorkeiser]

Ne sto facendo a meno